4  Visualización de datos

Ahora que ya tenemos idea de cómo procesar los datos y conocemos más o menos su contenido, podemos empezar a hacer algunas visualizaciones. En general, el flujo de análisis de datos va y viene entre el preproceso, la visualización y el análisis. El tipo de preproceso va ligado a las visualizaciones que queremos hacer y estas van mostrando el camino del análisis, por lo tanto en la vida real uno siempre está yendo y viniendo entre estas etapas.

En este taller vamos a explorar gráficamente los datos y empezarnos a hacer preguntas sobre ellos, preguntas que intentaremos ir respondiendo con nuevas visualizaciones. Para ello vamos a partir de la base de datos que construimos en el taller anterior.

Como siempre, lo primero es importar las librerías que vamos a utlizar

import plotly.express as px
import pandas as pd
import seaborn as sns
from datetime import timedelta, date, datetime

Para este taller vamos a trabajar con los datos sobre COVID-19 que procesamos en los talleres previos. En la carpeta de datos del libro encontrarás una versión procesada de estos datos con el nombre covid_procesados_ene_2023.zip.

df = pd.read_csv("datos/covid_procesados_ene_2023.csv", index_col=0)
df

	FECHA_ACTUALIZACION	ID_REGISTRO	ORIGEN	SECTOR	ENTIDAD_UM	SEXO	ENTIDAD_NAC	ENTIDAD_RES	MUNICIPIO_RES	TIPO_PACIENTE	...	OTRO_CASO	TOMA_MUESTRA_LAB	RESULTADO	TOMA_MUESTRA_ANTIGENO	RESULTADO_ANTIGENO	CLASIFICACION_FINAL	MIGRANTE	PAIS_NACIONALIDAD	PAIS_ORIGEN	UCI
1	2023-01-03	180725	2	9	9	2	9	9	9012	2	...	0	0	97	0	2	NEGATIVO A SARS-COV-2	0	México	97	0
4	2023-01-03	1933c0	1	12	9	2	9	9	9007	1	...	0	0	97	0	2	NEGATIVO A SARS-COV-2	0	México	97	0
8	2023-01-03	0741e4	2	6	9	2	9	9	9016	2	...	0	0	4	0	97	CASO DE COVID-19 CONFIRMADO POR COMITÉ DE DIC...	0	México	97	0
13	2023-01-03	1c4d2e	2	9	9	1	9	9	9012	1	...	0	0	97	0	1	CASO DE SARS-COV-2 CONFIRMADO	0	México	97	0
15	2023-01-03	0a6cd6	2	6	9	1	18	9	9007	1	...	0	0	97	0	2	NEGATIVO A SARS-COV-2	0	México	97	0
...	...	...	...	...	...	...	...	...	...	...	...	...	...	...	...	...	...	...	...	...	...
6393642	2023-01-03	m1cd235	2	12	15	1	15	9	9005	2	...	0	0	97	0	97	CASO SOSPECHOSO	0	México	97	0
6394417	2023-01-03	m0dbc4c	2	12	15	1	1	9	9002	1	...	0	0	2	0	97	NEGATIVO A SARS-COV-2	0	México	97	0
6394626	2023-01-03	m13431e	2	12	15	1	9	9	9002	1	...	0	0	97	0	2	NEGATIVO A SARS-COV-2	0	México	97	0
6394988	2023-01-03	m1493ea	2	12	15	1	15	9	9005	1	...	0	0	2	0	97	NEGATIVO A SARS-COV-2	0	México	97	0
6395781	2023-01-03	m0a22b8	2	12	15	2	9	9	9012	1	...	0	0	97	0	97	CASO SOSPECHOSO	0	México	97	0

1896084 rows × 40 columns

Important

¿Qué hace la opción index_col=0?

4.1 Curvas epidémicas

Por lo pronto vamos a concentrarnos en la iodea de las Cuervas Epidémicas es decir, la evolución temporal de los casos confirmados y las defunciones. Si consultamos los diccionarios de datos, podemos ver que los casos confirmados para COVID-19 corresponden a 3 categorías de la columna clasificación final:

1. CASO DE COVID-19 CONFIRMADO POR ASOCIACIÓN CLÍNICA EPIDEMIOLÓGICA
2. CASO DE COVID-19 CONFIRMADO POR COMITÉ DE DICTAMINACIÓN
3. CASO DE SARS-COV-2 CONFIRMADO

mientras que las defunciones corresponden a todos aquellos registros que tengan una fecha de defunción válida, es decir, en nuestros datos preprocesados, todas las fechas válidas.

4.1.1 Curva de casos confirmados

df.CLASIFICACION_FINAL.unique()

array(['CASO SOSPECHOSO', 'CASO DE SARS-COV-2  CONFIRMADO',
       'NO REALIZADO POR LABORATORIO', 'NEGATIVO A SARS-COV-2',
       'CASO DE COVID-19 CONFIRMADO POR ASOCIACIÓN CLÍNICA EPIDEMIOLÓGICA',
       'INVÁLIDO POR LABORATORIO',
       'CASO DE COVID-19 CONFIRMADO POR COMITÉ DE  DICTAMINACIÓN'],
      dtype=object)

valores_confirmados = ['CASO DE COVID-19 CONFIRMADO POR ASOCIACIÓN CLÍNICA EPIDEMIOLÓGICA',
                       'CASO DE COVID-19 CONFIRMADO POR COMITÉ DE  DICTAMINACIÓN',
                       'CASO DE SARS-COV-2  CONFIRMADO']
confirmados = df.loc[df['CLASIFICACION_FINAL'].isin(valores_confirmados)]
confirmados.head()

	FECHA_ACTUALIZACION	ID_REGISTRO	ORIGEN	SECTOR	ENTIDAD_UM	SEXO	ENTIDAD_NAC	ENTIDAD_RES	MUNICIPIO_RES	TIPO_PACIENTE	...	TOMA_MUESTRA_ANTIGENO_BIN	MIGRANTE_BIN	UCI_BIN	DEFUNCION	AÑO_INGRESO	MES_INGRESO	DIA_SEMANA_INGRESO	SEMANA_AÑO_INGRESO	DIA_MES_INGRESO	DIA_AÑO_INGRESO
FECHA_INGRESO
2020-09-23	2022-01-18	z13788	1	12	CIUDAD DE MÉXICO	1	CIUDAD DE MÉXICO	CIUDAD DE MÉXICO	CUAJIMALPA DE MORELOS	AMBULATORIO	...	0	0	0	0	2020	9	2	39	23	267
2020-12-21	2022-01-18	z526b3	2	12	CIUDAD DE MÉXICO	1	CIUDAD DE MÉXICO	CIUDAD DE MÉXICO	TLALPAN	AMBULATORIO	...	1	0	0	0	2020	12	0	52	21	356
2020-04-22	2022-01-18	z3d1e2	2	12	CIUDAD DE MÉXICO	1	CIUDAD DE MÉXICO	CIUDAD DE MÉXICO	GUSTAVO A. MADERO	AMBULATORIO	...	0	0	0	0	2020	4	2	17	22	113
2020-10-07	2022-01-18	zz9079	2	12	CIUDAD DE MÉXICO	1	CIUDAD DE MÉXICO	CIUDAD DE MÉXICO	IZTAPALAPA	AMBULATORIO	...	0	0	0	0	2020	10	2	41	7	281
2020-09-08	2022-01-18	z2770b	1	12	CIUDAD DE MÉXICO	1	CIUDAD DE MÉXICO	CIUDAD DE MÉXICO	IZTACALCO	AMBULATORIO	...	0	0	0	0	2020	9	1	37	8	252

5 rows × 69 columns

Ahora tenemos una tabla con todos los casos confirmados, para hacer una curva epidémica, tenemos que agregar en una escala temporal. Lo más sencillo es primero agragar por día y a partir de ahí podemos construir agregados para cualquier intervalo que queramos.

Para poder construir las curvas epidémicas necesitamos decidir cuáál fecha de todas las disponibles vamos a utilizar para agregar los casos. En este caso, la DGE sugiere utilizar la fecha de inicio de síntomas (FECHA_SINTOMAS) para construir la curva de casos confirmados y la de defunción (FECHA_DEF) para la curva de defunciones.

Entonces, para construir la curva de confirmados lo primero que tenemos que hacer es indexar el DataFrame por la fecha de inicio de síntomas

confirmados = confirmados.set_index('FECHA_SINTOMAS')
confirmados.index

DatetimeIndex(['2020-09-23', '2020-12-18', '2020-04-20', '2020-10-06',
               '2020-09-03', '2020-10-16', '2020-12-22', '2020-03-03',
               '2020-03-03', '2020-03-03',
               ...
               '2021-09-07', '2021-09-02', '2021-09-21', '2021-09-28',
               '2021-10-06', '2021-10-01', '2021-10-02', '2021-10-03',
               '2021-10-03', '2021-10-03'],
              dtype='datetime64[ns]', name='FECHA_SINTOMAS', length=1109842, freq=None)

Entonces es fácil construir agregados diarios, sólo tenemos que seleccionar qué columnas queremos agregar. Por lo pronto hagamos un conteo sólo de casos confirmados. Para eso sólo tenemos que agrupár el ídice usando una frecuencia diaría y tomar el tamaño de los grupos (de alguna columna, realmente no importa cual).

confirmados_diarios = (confirmados
                       .groupby(pd.Grouper(freq='D'))[['ID_REGISTRO']] # grupos por dia y seleccionamos 'ID_REGISTRO'
                       .size() # Calculamos el tamaño de cada grupo
                       .reset_index() # Convertimos el resultado (que es una serie) en DataFrame
                       .rename({0:'Confirmados'}, axis=1) # Le damos nombre a la columna que obtenemos
                       )
confirmados_diarios

	FECHA_SINTOMAS	Confirmados
0	2020-02-22	1
1	2020-02-23	1
2	2020-02-24	0
3	2020-02-25	0
4	2020-02-26	0
...	...	...
691	2022-01-13	3829
692	2022-01-14	3068
693	2022-01-15	1860
694	2022-01-16	665
695	2022-01-17	1029

696 rows × 2 columns

Con estos datos podemos usar Plotly para hacer una gráfica interactiva de forma muy sencilla.

fig = px.line(confirmados_diarios, x='FECHA_SINTOMAS', y="Confirmados")
fig.show()

confirmados_diarios['Media Móvil'] = confirmados_diarios.rolling(window=7).mean()
confirmados_diarios.head(10)

	FECHA_SINTOMAS	Confirmados	Media Móvil
0	2020-02-22	1	NaN
1	2020-02-23	1	NaN
2	2020-02-24	0	NaN
3	2020-02-25	0	NaN
4	2020-02-26	0	NaN
5	2020-02-27	0	NaN
6	2020-02-28	2	0.571429
7	2020-02-29	1	0.571429
8	2020-03-01	4	1.000000
9	2020-03-02	6	1.857143

fig = px.line(confirmados_diarios, x='FECHA_SINTOMAS', y='Media Móvil')
fig.show()

Para graficar las dos series en la misma gráfica lo más sencillo es pasar los datos de el formato ancho (en columnas) al formato largo (en filas con una columna que los distinga). Para esto vamos a usar la función melt de Pandas

 confirmados_diarios = confirmados_diarios.melt(id_vars=['FECHA_SINTOMAS'], value_vars=['Confirmados', 'Media Móvil'])
 confirmados_diarios

	FECHA_SINTOMAS	variable	value
0	2020-02-22	Confirmados	1.000000
1	2020-02-23	Confirmados	1.000000
2	2020-02-24	Confirmados	0.000000
3	2020-02-25	Confirmados	0.000000
4	2020-02-26	Confirmados	0.000000
...	...	...	...
1387	2022-01-13	Media Móvil	6428.142857
1388	2022-01-14	Media Móvil	5812.142857
1389	2022-01-15	Media Móvil	5169.142857
1390	2022-01-16	Media Móvil	4368.000000
1391	2022-01-17	Media Móvil	3189.428571

1392 rows × 3 columns

Con los datos de esta forma, ahora podemos usar Plotly para graficar ambas variables utilizando como color la columna variable

fig = px.line(confirmados_diarios, x='FECHA_SINTOMAS', y='value', color='variable')
fig.show()

4.1.2 Curva de defunciones

Ya que construimos la curva de casos confirmados, la de defunciones es exáctamente igual, sólo necesitamos seleccionar al inicio del proceso los renglones que tengan una fecha de defunción válida e indexar por fecha de defunción

defunciones = confirmados.loc[confirmados['FECHA_DEF'].notnull()] # Seleccionamos los casos con fecha de defunción
defunciones = defunciones.set_index('FECHA_DEF') # indexamos por fecha de defuncióón
defunciones_diarios = (defunciones
                       .groupby(pd.Grouper(freq='D'))[['ID_REGISTRO']] # grupos por dia y seleccionamos 'ID_REGISTRO'
                       .size() # Calculamos el tamaño de cada grupo
                       .reset_index() # Convertimos el resultado (que es una serie) en DataFrame
                       .rename({0:'Defunciones'}, axis=1) # Le damos nombre a la columna que obtenemos
                       )
defunciones_diarios['Media Móvil'] = defunciones_diarios.rolling(window=7).mean()
defunciones_diarios = defunciones_diarios.melt(id_vars=['FECHA_DEF'], value_vars=['Defunciones', 'Media Móvil'])
fig = px.line(defunciones_diarios, x='FECHA_DEF', y='value', color='variable')
fig.show()

4.1.3 Combinando las dos

La forma más sencilla de combinar ambas gráficas es hacer un Facet Plot, es decir, prodcir dos gráficas ligadas a partir de una sóla base de datos. Para lograr esto necesitamos una estructura un poco diferente, seguimos necesitando una columna que nos distinga los conteos de sus medias móviles, pero además vamos a necesitar otra columna que nos distina el tipo de caso: casos confirmados o defunciones.

Podemos partir de las bases que ya tenemos y simplemente cambiar algunas cosas:

• Agregar una columna que distinga si es Caso o defunción
• Cambiar los valores en las columnas variable para que coincidan en ambas series
• Cambiar los nombres de las fechas para que coincidan
• Hacer una base con las dos fuentes

defunciones_diarios['Tipo'] = 'Defunciones'
defunciones_diarios.loc[defunciones_diarios['variable'] == 'Defunciones', 'variable'] = 'Conteo'
defunciones_diarios = defunciones_diarios.rename({'FECHA_DEF': 'Fecha'}, axis=1)
confirmados_diarios['Tipo'] = 'Casos Confirmados'
confirmados_diarios.loc[confirmados_diarios['variable'] == 'Confirmados', 'variable'] = 'Conteo'
confirmados_diarios = confirmados_diarios.rename({'FECHA_SINTOMAS': 'Fecha'}, axis=1)
casos_defunciones = defunciones_diarios.append(confirmados_diarios)
casos_defunciones

	Fecha	variable	value	Tipo
0	2020-03-22	Conteo	1.000000	Defunciones
1	2020-03-23	Conteo	1.000000	Defunciones
2	2020-03-24	Conteo	0.000000	Defunciones
3	2020-03-25	Conteo	1.000000	Defunciones
4	2020-03-26	Conteo	3.000000	Defunciones
...	...	...	...	...
1387	2022-01-13	Media Móvil	6428.142857	Casos Confirmados
1388	2022-01-14	Media Móvil	5812.142857	Casos Confirmados
1389	2022-01-15	Media Móvil	5169.142857	Casos Confirmados
1390	2022-01-16	Media Móvil	4368.000000	Casos Confirmados
1391	2022-01-17	Media Móvil	3189.428571	Casos Confirmados

2726 rows × 4 columns

Ya con la nueva serie como la queremos, podemos hacer un Facet, la parte importante es decirle que no queremos que compartan el eje \(y\) porque las escalas son muy diferentes

fig = px.line(casos_defunciones, x='Fecha', y='value', color='variable', facet_col='Tipo', facet_col_wrap=1)
fig.update_yaxes(matches=None)
fig.show()

4.1.4 Hospitalizaciones

Otra grááfica muy interesante para comprender la evolucióón de la epidemia es la de hospitalizaciones. Para obtener esta grááfica primero tenemos que seleccionar los pacientes confirmados como positivos a COVID-19 y que además fueron hospitalizados.

Los casos confirmados ya los tenemos calculados en la variable confirmados, entonces falta ver cómo obtener los pacientes hospitalizados

confirmados.TIPO_PACIENTE.unique()

array(['AMBULATORIO', 'HOSPITALIZADO'], dtype=object)

Gracias a nuentra base aplanada es muy fácil distinguirlos, entonces sólo los tenemos que seleccionar, agregar por día y podemos hacer una gráfica como las anteriores (incluyendo la media móvil). Recordemos que confirmados estáá indexado por fecha de inicio de síntomas, entonces nuestra curva de hospitalización estará indexada por la misma fecha

hospitalizados = confirmados[confirmados.TIPO_PACIENTE == 'HOSPITALIZADO']
hospitalizados_diarios = (hospitalizados
                          .groupby(pd.Grouper(freq='D'))[['ID_REGISTRO']] # grupos por dia y seleccionamos 'ID_REGISTRO'
                          .size() # Calculamos el tamaño de cada grupo
                          .reset_index() # Convertimos el resultado (que es una serie) en DataFrame
                          .rename({0:'Hospitalizaciones'}, axis=1) # Le damos nombre a la columna que obtenemos
                        )
hospitalizados_diarios['Media Móvil'] = hospitalizados_diarios.rolling(window=7).mean()
hospitalizados_diarios = hospitalizados_diarios.melt(id_vars=['FECHA_SINTOMAS'], value_vars=['Hospitalizaciones', 'Media Móvil'])
fig = px.line(hospitalizados_diarios, x='FECHA_SINTOMAS', y='value', color='variable')
fig.show()

Y, una vez más, para comparar vamos a poner las tres gráficas (casos confirmados, defunciones y hospitalizacones) en un Facet

hospitalizados_diarios['Tipo'] = 'Hospitalizaciones'
hospitalizados_diarios.loc[hospitalizados_diarios['variable'] == 'Hospitalizaciones', 'variable'] = 'Conteo'
hospitalizados_diarios = hospitalizados_diarios.rename({'FECHA_SINTOMAS': 'Fecha'}, axis=1)
casos_defunciones_hospitalizaciones = casos_defunciones.append(hospitalizados_diarios)
casos_defunciones_hospitalizaciones

	Fecha	variable	value	Tipo
0	2020-03-22	Conteo	1.000000	Defunciones
1	2020-03-23	Conteo	1.000000	Defunciones
2	2020-03-24	Conteo	0.000000	Defunciones
3	2020-03-25	Conteo	1.000000	Defunciones
4	2020-03-26	Conteo	3.000000	Defunciones
...	...	...	...	...
1387	2022-01-13	Media Móvil	102.000000	Hospitalizaciones
1388	2022-01-14	Media Móvil	96.000000	Hospitalizaciones
1389	2022-01-15	Media Móvil	88.285714	Hospitalizaciones
1390	2022-01-16	Media Móvil	79.571429	Hospitalizaciones
1391	2022-01-17	Media Móvil	58.285714	Hospitalizaciones

4118 rows × 4 columns

fig = px.line(casos_defunciones_hospitalizaciones, x='Fecha', y='value', color='variable', facet_col='Tipo', facet_col_wrap=1)
fig.update_yaxes(matches=None)
fig.show()

4.2 Histogramas

¿Cómo ha afectado la epidemia a diferentes grupos de edad?

Para responder a esta pregunta, primero necesitamos conocer la cantidad total por grupo de edad. Pensemos que vamos a agregar a la población en grupos de 5 años, entonces, obtener los totales es relatívamente fácil, empecemos por los casos confirmados:

• Agrupar por EDAD y contar el número de filas por grupo nos da el total de casos por cada edad.
• Despues ya sólo necesitamos contar por intervalos de 5 años

por_edad = df.groupby("EDAD")[["SECTOR"]].count().rename(columns={"SECTOR": "Total"})
por_edad

	Total
EDAD
0	9241
1	9006
2	9350
3	10089
4	11307
...	...
118	17
119	13
120	628
121	2611
122	3

123 rows × 1 columns

sns.histplot(data=df, x="EDAD")

KeyboardInterrupt: